Chịu ảnh hưởng tư tưởng chống Pháp từ cha, trong thời gian học tại Nam Định, ông cùng nhiều bạn học tham gia các phong trào đòi thả Phan Bội Châu năm (1925), để tang Phan Chu Trinh năm (1926) và vì thế bị đuổi học.[2]

Ông rời Nam Định lên Hà Nội tìm việc làm để tự nuôi sống. Ban đầu, ông làm thư ký cho hiệu ảnh Hưng Ký, rồi làm giáo viên Trường tư Công Ích tại phố Bạch Mai. Do thường xuyên truyền bá tư tưởng yêu nước trong giờ dạy cho học sinh nên Hiệu trưởng nhà trường rất lo sợ, đã yêu cầu ông chỉ được dạy đúng nội dung sách giáo khoa do Nhà nước bảo hộ quy định. Ông bèn thôi việc, vào làm thợ sắp chữ ở nhà in Mạc Đình Tư.

Cuối năm 1926, ông đã có những tiếp xúc đầu tiên với những hạt nhân của Nam Đồng Thư xã, và dần chịu ảnh hưởng chính trị của tổ chức này, dẫn đến việc ông tham gia vào một tổ chức chính trị mà về sau được biết đến với tên gọi là Việt Nam Quốc dân Đảng.[2]

Mùa thu năm 1927, ông và Lý Hồng Nhật được tổ chức cử sang Quảng Châu (Trung Quốc) để tìm hiểu về Việt Nam Thanh niên Cách mạng Đồng chí hội. Tại đây, ông đã dự thính một lớp huấn luyện chính trị do Tổng bộ Việt Nam Thanh niên cách mạng đồng chí hội mở. Điều này đã có ảnh hưởng sâu sắc dẫn đến việc ông và người bạn Lý Hồng Nhật gia nhập Việt Nam Thanh niên Cách mạng Đồng chí hội.[3]